Speculative Diffusion is a Tale of Two Tradeoffs
推测扩散：双重权衡下的速度-质量前沿
🧭 LLM 推理加速 · 推测解码与扩散模型
University of California, Los Angeles · Independent Researcher
联合调节扩散努力与推测解码宽松度，可扩展速度-质量 Pareto 前沿
📌 工作参考价值（4 点）
- 在电商/广告的 LLM 在线推理场景（如生成推荐理由、商品描述、Agent 工具调用），可考虑用扩散 LLM 作为 draft model 进行推测解码，其并行 token 生成能力有助于突破 AR 解码的内存带宽瓶颈。
- 当业务对 latency 敏感但可接受一定质量损失时，不必固守 lossless speculative decoding，可以显式引入 acceptance leniency 参数，快速获得有损加速。
- 工程实现上，不要只调 draft model 的 diffusion steps，应同时扫描 diffusion effort 和 speculative acceptance threshold 两个维度，找到适合自身业务的 Pareto 最优配置。
- 对需要动态权衡质量与延迟的系统（如搜索推荐中的 LLM 重排、对话式推荐），可构建类似的双参数调节机制，让线上策略根据流量状况实时切换。